Definition Was sind Tensor-Cores

Von Brainrockers 1 min Lesedauer

Anbieter zum Thema

Tensor-Cores sind eine von Hardware-Hersteller Nvidia entwickelte Technologie zur Grafikverarbeitung, die häufig bei KI- und Machine-Learning-Anwendungen genutzte Rechenprozesse wie Faltungsoperationen und Matrixmultiplikationen beschleunigt.

Grundlagenwissen zum IT-Business(Bild:  © adiruch na chiangmai - Fotolia.com)
Grundlagenwissen zum IT-Business
(Bild: © adiruch na chiangmai - Fotolia.com)

Mit der Volta-GPU-Architektur führte Nvidia im Jahr 2017 erstmals Grafikkarten (Quadro GV100 und Titan V) mit Tensor-Cores ein. Zweck dieser spezialisierten Kerne ist es, die Berechnung komplexer mathematischer Rechenoperationen in immer mehr an Bedeutung gewinnenden KI- und Machine-Learning-Anwendungen zu beschleunigen. Dazu gehören insbesondere rechenintensive Matrixmultiplikationen, die das Training von neuronalen Netzen und deren Inferenz deutlich schneller und effizienter gestalten. Seit der Einführung der Tensor-Kerne entwickelt der Hersteller die Technologie stetig weiter. Konnten beispielsweise die Kerne der ersten Generation lediglich mit FP16-Matrizen arbeiten, beherrschen neuere Varianten auch den Umgang mit TF32, FP64 und bfloat16. Zudem hat Nvidia seit der Volta-GPU die Anzahl der Tensor-Kerne reduziert, gleichzeitig aber deren Geschwindigkeit erheblich gesteigert.

Anwendungsgebiete von Tensor-Cores

Tensor-Cores kommen in unterschiedlichen Gebieten zum Einsatz, in denen komplexe Rechenvorgänge notwendig sind. Hier ermöglichen sie eine schnelle und effiziente Verarbeitung großer Datenmengen, die mit herkömmlicher Hardware viel mehr Zeit in Anspruch nehmen würde oder aber gar nicht umsetzbar wäre. Dazu gehören unter anderem die Bereiche:

  • Künstliche Intelligenz und maschinelles Lernen
  • Selbstfahrende (autonome) Fahrzeuge
  • Wissenschaftliche Untersuchungen
  • Gaming und Content-Creation

Besonders nützlich sind Tensor-Cores beim Trainieren und Optimieren von KI-Modellen, da sie unter anderem die Berechnung aufwendiger Matrixoperationen beschleunigen. Auf diese Weise können Forscher immer komplexere und leistungsfähigere Modelle entwickeln, die sich in verschiedenen Anwendungen von der Bild- und Spracherkennung bis zu autonomen Fahrzeugen einsetzen lassen.

Vorteile bieten die von Nvidia entwickelten Recheneinheiten auch in der Wissenschaft. Hier lässt sich mithilfe von Tensor-Cores unter anderem der Zeitaufwand für sehr komplexe physikalische Simulationen reduzieren. Nicht zuletzt profitieren auch Gamer, die Grafikkarten von Nvidia einsetzen, von der Technologie. Hier beschleunigen die Tensor-Cores das Rendering, verbessern die Bildqualität und tragen durch beispielsweise Echtzeit-Raytracing (realitätsnahe Berechnung von Lichtstrahlen) zu einer noch realistischeren Spielumgebung bei.

(ID:49506758)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung